Giám mục Nguyễn Văn Khảm sinh ngày 2 tháng 10 năm 1952 tại Đàn Giản, Hà Đông (nay thuộc xã Thanh Thùy, huyện Thanh Oai, thành phố Hà Nội). Năm 1954, cậu bé Khảm theo gia đình di cư vào Nam. Với chí hướng tu học, giám mục Khảm đã dành khoảng thời gian tuổi trẻ của mình, theo học tại các chủng viện như:Tiểu chủng viện Thánh Quý, Cái Răng, Cần Thơ (1963 –1972); Đại Chủng viện Thánh Tôma, Long Xuyên (1973 – 1976); Đại chủng viện Thánh Giuse Sài Gòn (1977 – 1979).[8]